Sebanyak 15 orang pengetua telah berkhidmat di Kolej Islam. Kebanyakan pengetua Kolej Islam Malaya terdiri daripada pensyarah-pensyarah universiti sebelum diambil alih oleh Kementerian Pelajaran Malaysia.[2]

1955 - 1956 : Dato' Haji Ismail Omar Abdul Aziz

1956 - 1963 : Tan Sri Professor Dr. Mohamad Abd. Rauf

1964 - 1966 : Tan Sri Profesor Abdul Jalil Hassan

1967 - 1975 : Ustaz Haji Nik Mohd. Mohyideen Musa (AMN)

Ustaz Haji Nik Mohd. Mohyideen Musa merupakan orang yang bertanggungjawab mencetuskan idea penubuhan Sekolah Menengah Kebangsaan Agama (SMKA). Idea beliau telah direalisasikan oleh Tan Sri Dato’ Paduka Dr. Abdul Hamid bin Othman dan Dato Zainal Abidin bin Haji Abdul Kadir dengan menaik taraf status sekolah agama rakyat pada ketika itu menjadi Sekolah Menengah Kebangsaan Agama yang dilengkapi prasarana serta infrastruktur moden.

1977 - 1981 : Dato' Haji Zainal Abidin Abdul Kadir

1981 - 1983 : Ustaz Haji Alwi Yusoff

1983 - 1986 : Ustaz Haji Ghaffar Sareh

1987 - 1997 : Ustaz Haji Abdul Morat Abd. Samat

1997 - 1999 : Ustaz Haji Ahmad Ismail

1999 - 2000 : Ustaz Haji Samingan Haji Noor

2000 - 2003 : Ustaz Haji Abdullah Hussain

2003 - 2005 : Ustaz Haji Rohmat Jusoh

2005 - 2007 : Ustaz Haji Abdullah bin Md. Din

2007 - 2008 : Tuan Haji Mohamad bin Awang

2008 - 2014 : Tuan Haji Abdullah bin Jusoh

2014 - Kini : Tuan Haji Omar Bin Saleh